GROUPES (mathématiques) - Généralités

GROUPES (mathématiques) - Généralités

On se propose de présenter ici les notions fondamentales de théorie des groupes qui interviendront constamment dans la suite des articles qui traitent des groupes. Ces articles contiennent un très grand nombre d’exemples, c’est pourquoi cet exposé introductif n’explicite que quelques groupes utilisés aussi ailleurs, notamment en cristallographie, en chimie, en linguistique.

1. La structure de groupe

Un groupe G est un ensemble muni d’une loi de composition interne:

qui possède les propriétés suivantes:

(a) Elle est associative , c’est-à-dire que, si a , b , c sont des éléments de G, on a:

(b) Elle admet un élément neutre , c’est-à-dire qu’il existe un élément e 捻 G (nécessairement unique, manifestement) tel que, pour tout a 捻 G:

(c) Tout élément a de G admet un symétrique (en notation multiplicative on dira un inverse ), c’est-à-dire qu’il existe un élément de G, noté a ^-1, tel que:

On ne se préoccupera pas ici de savoir si l’on peut affaiblir ces axiomes en jonglant avec des hypothèses «à droite» et «à gauche» dans (b) et dans (c). Le groupe est dit commutatif , ou abélien , si la loi de composition est commutative, c’est-à-dire a b = b a pour tout couple d’éléments de G. Cette loi est alors souvent (mais pas toujours) notée additivement, par le signe +; l’élément neutre est désigné par 0 et le symétrique d’un élément a est noté 漣 a . C’est le cas, par exemple, pour la loi de groupe sous-jacente à une structure d’anneau ou d’espace vectoriel. On appelle ordre d’un groupe fini G le nombre |G| de ses éléments.

Dans ce qui suit, sauf mention explicite d’une autre notation, la notation multiplicative sera adoptée systématiquement, ce qui signifie que l’on notera x , y , ou plus simplement xy , l’image du couple (x , y ) par la loi de composition. L’élément neutre sera désigné par 1. Lorsque plusieurs groupes seront considérés simultanément, le même symbole 1 désignera donc plusieurs objets mathématiques distincts, ce qui paraît en contradiction avec les règles logiques les plus simples (cf. par exemple la formule (2) ci-dessous); en fait, cela n’est guère gênant, car le contexte mathématique permet toujours d’éviter toute ambiguïté. Ainsi, dans la formule (2), puisque f est une application de G dans G , le symbole 1 dans la partie gauche de la formule représente l’élément neutre de G tandis que le 1 de droite représente l’élément neutre de G .

Remarquons maintenant que, si l’on multiplie à gauche par a ^-1 les deux membres de l’égalité ax = ay , on obtient, en applicant l’associativité, 1x = 1y , d’où x = y . On a ainsi obtenu la règle de simplification dans un groupe: si a , x , y sont des éléments d’un groupe, on a les équivalences:

Une démonstration tout à fait analogue montre que, dans un groupe, les équations linéaires , du type ax = b , ou xa = b , ont toujours une solution unique; par multiplication à gauche par a ^-1, on obtient par exemple que la première a pour solution x = a ^-1b .

Si x est un élément d’un groupe G et n un entier positif, on notera x ⁿ le produit de n éléments égaux à x , et x ^-n le produit de n éléments égaux à x ^-1. L’élément x ⁰ étant par définition l’élément neutre, on a donc défini x ⁿ pour tout entier relatif n et on vérifie facilement que deux puissances quelconques d’un même élément commutent toujours et que:

en notation additive on écrit nx au lieu de x ⁿ .

Morphismes

Conformément aux définitions générales pour les structures algébriques, on dit qu’une application f d’un groupe G dans un groupe G est un morphisme , ou un homomorphisme , de groupe si on a:

pour tout couple d’éléments de G. Par exemple, le logarithme usuel réalise un homomorphisme du groupe multiplicatif R⁺ des nombres réels strictement positifs sur le groupe additif de tous les nombres réels, car:

bien entendu, il faut, quand les deux groupes ne sont pas tous les deux notés multiplicativement, adapter les notations de la condition (1). Un morphisme bijectif est appelé un isomorphisme ; c’est le cas du logarithme qui réalise un isomorphisme du groupe multiplicatif R⁺ sur le groupe additif R. Dans le cadre de la théorie des groupes, il n’y a pas lieu de distinguer des groupes isomorphes, et on parlera parfois (par abus de langage) de réalisation d’un même groupe pour désigner des groupes isomorphes. Remarquons enfin que, si on prend pour y l’élément neutre de G dans (1), on obtient, après simplification:

qui montre que tout morphisme de G dans G transforme l’élément neutre de G en l’élément neutre de G . Les groupes, et leurs morphismes, forment un exemple très simple de catégorie.

Sous-groupes

Une partie non vide H d’un groupe G est un sous-groupe si le composé de deux éléments de H est encore un élément de H et si H est un groupe pour la loi de composition ainsi définie; on vérifie facilement qu’une partie H non vide d’un groupe G est un sous-groupe si et seulement si xy ^-1 捻 H pour tout couple (x , y ) d’éléments de H. Des exemples très simples de sous-groupes s’obtiennent à partir des morphismes: si f : GG est un morphisme de groupe, alors son image f (G) est un sous-groupe de G et son noyau Ker f = f ^-1(1) est un sous-groupe de G (en fait, comme on le verra ci-dessous au chapitre 3, le noyau n’est pas n’importe quel sous-groupe). Si f : GG et g : G G sont deux morphismes, on dira que la « suite »:

est exacte si l’image de f est égale au noyau de g ; cette situation est fondamentale en algèbre homologique.

Il est clair que l’intersection d’une famille quelconque de sous-groupes est encore un sous-groupe (éventuellement le sous-groupe1 réduit à l’élément neutre). Par suite, si K est une partie quelconque d’un groupe G, il existe un «plus petit» sous-groupe contenant K, à savoir l’intersection de tous les sous-groupes contenant K; si H est ce sous-groupe, on dit qu’il est engendré par K, ou encore que K est un système de générateurs de H. Les éléments de H sont les produits finis x ¹x ² ... x ⁿ , où l’un au moins des deux éléments x ⁱ ou x ^{i -1} appartient à K; en effet, tout sous-groupe contenant K contient ces éléments et l’ensemble de ces éléments est un groupe.

Indiquons enfin que, si A et B sont deux parties d’un groupe G, on note AB l’ensemble des produits ab pour a 捻 A et b 捻 B.

2. Quelques exemples

Dans de nombreux cas, les éléments d’un groupe G seront réalisés comme des bijections d’un ensemble E sur lui-même; par définition, le produit ab de deux telles bijections est alors la bijection composée obtenue en faisant d’abord b , puis a . L’ensemble (E) de toutes les bijections d’un ensemble E est un groupe, appelé le groupe symétrique de l’ensemble E, pour la loi de composition ainsi définie.

Groupes cycliques

Un groupe G est dit cyclique s’il est engendré par un de ses éléments a . Tout élément de G est ainsi une puissance de a , et G est donc commutatif. Par exemple, le groupe additif Z des entiers relatifs est engendré par l’élément 1; car, avec les notations ci-dessus, n = n 1. Si G est un groupe cyclique quelconque (on revient à la notation multiplicative), engendré par a 捻 G, l’application:

est un morphisme surjectif de Z sur G. Si ce morphisme est injectif, c’est un isomorphisme. Dans le cas contraire, il existe des entiers n et n distincts tels que a ⁿ = a ⁿ ; si on suppose n 礪 n , on en déduit a ^n-n = 1. Désignons par p le plus petit entier positif tel que a ^p = 1; les éléments:

sont donc distincts et ce sont les seuls éléments du groupe G, car pour tout entier n on a: a ⁿ = a ^pq+r = a ^r si n = pq + r est l’identité de division euclidienne de n par p , avec r 捻0, 1, ..., p 漣 1. Ainsi tout groupe cyclique infini est isomorphe à Z; tous les groupes cycliques finis de même ordre p sont isomorphes entre eux. On désignera le groupe cyclique d’ordre p par C^p . On peut le réaliser comme l’ensemble des rotations du plan de centre O et d’«angles» 2 k 神/p , k = 0, 1, ..., p 漣 1, la loi de groupe étant la composition des rotations, ou encore comme l’ensemble des rotations d’angle 2 k 神/p autour de l’axe Oz dans l’espace à trois dimensions. Remarquons que le groupe multiplicatif des racines p -ièmes de l’unité dans le corps des nombres complexes (cf. nombres COMPLEXES) est aussi une réalisation de ce groupe.

Groupes diédraux

Pour n 閭 3, on appelle groupe diédral Dⁿ le groupe des rotations et des symétries du plan qui conservent un polygone régulier à n sommets. Ce groupe est d’ordre 2 n , car il contient n rotations, qui forment un sous-groupe isomorphe au groupe cyclique Cⁿ et n symétries (par rapport aux n droites joignant les sommets au centre du polygone). Si on numérote les sommets 1, 2, ..., n (en choisissant un «sens de parcours» sur le polygone), le groupe Dⁿ est engendré par la rotation a :

et la symétrie b :

autour de la droite joignant 1 au centre du polygone. Les générateurs a et b vérifient les «relations»:

il en résulte que tout élément du groupe est de la forme a ^k si c’est une rotation, ou de la forme a ^k b si c’est une symétrie, avec k = 0, 1, ..., n 漣 1. Ces relations déterminent entièrement le groupe Dⁿ .

On peut donner des réalisations de Dⁿ comme groupe de déplacements de l’espace à trois dimensions, par exemple en prenant pour rotations des rotations autour de l’axe Oz et pour symétries des symétries autour de n droites du plan x Oy faisant entre elles des angles égaux; on peut obtenir une autre réalisation en remplaçant les symétries précédentes par des symétries autour de n plans passant par Oz . En cristallographie, on considère aussi le groupe D^nh d’ordre 4n des déplacements de l’espace à trois dimensions qui conservent un polygone régulier à n sommets du plan x Oy ; on peut le réaliser comme le groupe engendré par Dⁿ (dans la réalisation précédente) et la symétrie par rapport à l’origine.

Pour n = 2, les relations (3) définissent un groupe commutatif d’ordre 4, dont les éléments sont 1, a , b , ab , avec a ² = b ² = 1, ab = ba . C’est le 4-groupe de Klein. On peut le réaliser comme le groupe des symétries qui conservent un rectangle (qui n’est pas un carré); les nombreuses réalisations intuitives que l’on peut donner de ce groupe lui donnent une grande importance dans la pédagogie et l’enseignement élémentaire des mathématiques.

Les «symétries» du cube

Considérons un cube dont les sommets sont numérotés comme l’indique la figure. Le groupe G des déplacements conservant le cube est engendré par la rotation a :

autour de la droite D joignant les centres des deux faces opposées 1-2-3-4 et 5-6-7-8, par la rotation b :

autour de la diagonale 1-7 et par la symétrie c :

autour du plan équidistant des deux faces opposées ci-dessus. Ce groupe est d’ordre 48. Les rotations forment un sous-groupe G¹ d’ordre 24 engendré par a et b ; c’est le groupe des déplacements conservant l’octaèdre régulier dont les sommets sont les centres des huit faces du cube. On peut aussi considérer le sous-groupe cyclique H¹ d’ordre 3 engendré par b : c’est le groupe des rotations qui laissent fixe le sommet 1.

Groupes libres

Si un sous-ensemble K engendre un groupe G, tout élément de G est un produit fini d’éléments de K et d’inverses d’éléments de K, mais l’existence de «relations» entre éléments de K fait qu’il peut y avoir plusieurs telles représentations (cf. supra ). Nous allons examiner le cas où il y a unicité.

Soit S un ensemble quelconque. On appelle mot de S soit l’ensemble vide, noté ici 1 et appelé le mot vide , soit une suite formelle finie :

d’éléments écrits s size=1^﨎 où s 捻 S, avec 﨎 = + 1 ou 漣 1. On dira qu’un tel mot est réduit s’il ne contient pas de termes consécutifs de la forme s size=1^﨎s size=1^漣 size=1^﨎, s 捻 S; à tout mot, on peut toujours associer le mot réduit obtenu en «gommant», c’est-à-dire en supprimant purement et simplement toute paire consécutive de ce type. On appellera alors groupe libre engendré par S l’ensemble des mots réduits muni de la loi de composition qui, à deux mots réduits f = a ¹a ² ... a ⁿ et g = b ¹b ² ... b ^m , fait correspondre le mot réduit fg obtenu à partir du mot:

obtenu en écrivant d’abord f puis g. Il est clair qu’on obtient bien ainsi un groupe, dont le mot vide est l’élément neutre; le mot inverse est le mot obtenu en renversant l’ordre des termes et en remplaçant l’«exposant» (égal à + 1 ou à 漣 1) de chaque terme par son opposé: en effet, par réduction on obtient alors le mot vide comme produit d’un mot et du mot inverse puisque, de proche en proche, on «gomme» tout en réduisant le mot obtenu en juxtaposant un mot et son inverse.

Un groupe G est dit libre s’il est isomorphe au groupe libre engendré par un ensemble S, que l’on peut supposer inclus dans G en prenant pour S l’ensemble qui correspond dans l’isomorphisme aux mots d’une seule «lettre» avec 﨎 = + 1. L’ensemble S est un système de générateurs sans «relations».

La théorie des groupes libres a été élaborée par J. Nielsen et O. Schreier. Le résultat principal en est que tout sous-groupe d’un groupe libre est libre (c’est un résultat dont la démonstration est longue et très technique).

3. Relations d’équivalence et quotients

Dans ce qui suit interviendra souvent le fait que l’inverse d’un produit ab de deux éléments d’un groupe est le produit b ^-1a ^-1 des inverses en renversant l’ordre; car, en utilisant l’associativité:

À partir d’un sous-groupe, on peut définir plusieurs relations d’équivalence sur un groupe. Si le sous-groupe vérifie une propriété supplémentaire, ces relations coïncident et on peut alors munir l’ensemble quotient d’une structure de groupe.

Classes suivant un sous-groupe

Soit G un groupe et H un sous-groupe de G. La relation:

est une relation d’équivalence sur G. En effet x 黎^g x , car x ^-1x = 1 捻 H; si x 黎^g y , l’élément x ^-1y appartient à H et, par suite, aussi son inverse (x ^-1y )^-1 = y ^-1x , ce qui signifie: y 黎^g x ; la transitivité résulte du fait que, si x ^-1y et y ^-1z sont deux éléments du sous-groupe H, leur produit (x ^-1y )(y ^-1z ) = x ^-1z est aussi un élément de H. La classe d’équivalence d’un élément x 捻 G est l’ensemble x H des produits xh lorsque h parcourt H, appelé classe à gauche de x suivant H (ou modulo H). Deux classes à gauche sont disjointes ou confondues. Lorsque le nombre de classes à gauche distinctes est fini, on l’appelle l’indice du sous-groupe H dans G, et on note ce nombre [G: H]. Remarquons que, puisque, pour x fixé, l’application g 料 xg est, d’après la règle de simplification (cf. chap. 1), une bijection de G sur lui-même, si le sous-groupe H est fini, toutes les classes à gauche ont le même nombre d’éléments que H. Pour G fini, on obtient, puisque les classes à gauche distinctes forment une partition, que l’ordre du groupe G est le produit de l’ordre de H par l’indice de H dans G, soit:

résultat obtenu par Lagrange, sous une forme différente, à propos de la théorie des équations et avant l’élaboration de la théorie des groupes proprement dite (cf. GROUPES – Groupes finis).

Bien entendu, on pourrait définir de manière analogue les classes à droite Hx pour la relation d’équivalence xy ^-1 捻 H. La symétrie x 料 x ^-1 est une bijection du groupe sur lui-même qui conserve les sous-groupes et échange les classes à gauche et les classes à droite; en particulier, si le nombre de classes à gauche suivant H est fini (c’est-à-dire H d’indice fini dans G), ce nombre est aussi le nombre de classes à droite.

Revenons par exemple au groupe des «symétries» du cube, avec les notations du chapitre 2. Le groupe G¹ est d’indice 2 dans G et ici les classes à gauche sont G¹ et c G¹, groupe des déplacements directs (rotations) et ensemble des déplacements inverses conservant le cube. Deux éléments x et y de G¹ sont équivalents à gauche par rapport au sous-groupe H¹ si et seulement s’ils envoient 1 sur le même sommet, puisque les éléments de H¹ conservent ce sommet 1. Il y a donc huit classes: H, x ²H, x ³H, x ⁴H, x ⁵H, x ⁶H, x ⁷H, x ⁸H, où x ⁱ est une rotation quelconque de G¹ envoyant le sommet 1 sur le sommet i ; on peut prendre par exemple x ² = a , x ³ = a ², x ⁴ = a ³, x ⁵ = ba ³, x ⁶ = aba ³, x ⁷ = a ²ba ³ et x ⁸ = a ³ba ³. Ainsi H¹ est d’indice 8 dans G¹ et on a bien:

On voit de même que deux rotations de G¹ sont équivalentes à droite si et seulement si le sommet 1 est l’image du même sommet i par ces deux rotations, ce qui permet d’expliciter les huit classes à droite.

Indiquons enfin que, si H et K sont deux sous-groupes de G, on définit la double classe Hx K d’un élément x 捻 G suivant H et K; si K = H, on parle de doubles classes suivant H. Comme ci-dessus, on montre, en introduisant une relation d’équivalence convenable, que deux doubles classes sont disjointes ou confondues.

Automorphismes intérieurs

Si G est un groupe, l’ensemble des automorphismes de G est un groupe, que nous noterons Aut(G), pour la composition des applications: c’est le sous-groupe du groupe symétrique (G) de l’ensemble G, formé des bijections de G sur G qui sont, en plus, des morphismes. Nous allons mettre en évidence certains automorphismes qui jouent un rôle fondamental en théorie des groupes.

Soit s un élément d’un groupe G. L’application 見^s : GG définie par 見^s (x ) = sxs ^-1 est un automorphisme de G que nous appellerons l’automorphisme intérieur défini par s ; en effet:

et 見^s est manifestement bijectif, car y = 見^s (x ) équivaut à x = s ^-1ys , ce qui montre que l’automorphisme réciproque est l’automorphisme intérieur défini par s ^-1. De plus, l’application s 料 見^s est un morphisme de G dans le groupe Aut(G), car on a:

par suite, l’ensemble Int(G) de tous les automorphismes intérieurs est un sous-groupe de Aut(G). On appelle centre du groupe G le noyau Z(G) du morphisme s 料 見^s ; c’est un sous-groupe de G qui est l’ensemble des éléments s 捻 G tels que sxs ^-1 = x , soit sx = xs , pour tout x 捻 G. Ainsi le centre est l’ensemble des éléments de G qui commutent avec tous les éléments du groupe; ce centre est un sous-groupe commutatif qui est transformé en lui-même par tout automorphisme de G. Plus généralement, soit H un sous-groupe de G et S une partie de G (qui n’est pas nécessairement un sous-groupe). On montre facilement que l’ensemble des éléments x 捻 H qui commutent avec tous les éléments de S, c’est-à-dire tels que sx = xs pour tout s 捻 S, est un sous-groupe de H, noté Z^H(S) et appelé le centralisateur de S dans H; avec cette extension, le centre apparaît comme le centralisateur de G dans G.

Soit H un sous-groupe de G. On dit que deux éléments s , s 捻 G sont conjugués par rapport à H s’il existe x 捻 H tel que:

il est clair, puisque H est un sous-groupe, que la conjugaison est une relation d’équivalence sur G. Plus généralement, on dit que deux sous-ensembles S et S de G sont conjugués par rapport à H s’il existe x 捻 H tel que S = x Sx ^-1; si S est un sous-groupe, ses conjugués sont les sous-groupes images de S par les automorphismes intérieurs 見^x , x 捻 H. Revenant à un sous-ensemble S quelconque, on vérifie facilement que l’ensemble ^H(S) des éléments x 捻 H tels que S = x Sx ^-1 est un sous-groupe de H appelé normalisateur de S dans H; bien entendu, Z^H(S) est un sous-groupe de ^H(S).

Dans tout ce qui précède, on supprime la référence à H si H = G; on parle alors d’éléments conjugués, de centralisateur, de normalisateur.

Sous-groupes distingués

Si un groupe H est le noyau d’un morphisme f d’un groupe G dans un groupe G , pour tout x 捻 G et y 捻 H, donc f (y ) = 1, on a:

d’après (2) et, par suite, xyx ^-1 = 見^x (y ) 捻 H; ainsi x Hx ^-1 = H pour tout x 捻 G et H est égal à tous ses conjugués. On dit qu’un sous-groupe possédant cette propriété est distingué (ou normal , ou invariant ); ainsi les noyaux des morphismes sont des sous-groupes distingués. En fait, on va voir aussi que tout sous-groupe distingué est le noyau d’un certain morphisme.

Revenons pour un instant à un sous-groupe quelconque H d’un groupe G et désignons par G/H l’ensemble des classes à gauche suivant H, c’est-à-dire l’ensemble quotient de G par la relation d’équivalence à gauche suivant H, et par f : GG/H l’application canonique qui à tout x 捻 G associe sa classe à gauche. S’il est possible de munir G/H d’une structure de groupe pour laquelle f est un morphisme, alors, d’après (2), l’élément neutre de ce groupe est la classe de 1 et le noyau de f est donc H; ainsi H est nécessairement un sous-groupe distingué. Réciproquement, si on suppose maintenant H distingué, la classe d’un produit xy ne dépend que des classes de x et y , car, si x ^-1x 捻 H et y ^-1y 捻 H, c’est-à-dire x et y équivalents (à gauche) à x et y respectivement, on a:

comme produit de deux éléments de H (le premier est l’image de x ^-1x par l’automorphisme intérieur défini par y ), et on vérifie facilement qu’on peut ainsi munir G/H d’une structure de groupe pour laquelle l’application canonique est un morphisme. Le groupe G/H est appelé le groupe quotient de G par le sous-groupe distingué H; si H n’est pas distingué, on peut cependant faire «opérer» le groupe sur l’espace G/H et on obtient alors ce qu’on appelle un espace homogène (cf. chap. 5). L’application canonique f réalise une bijection entre les sous-groupes de G contenant H et les sous-groupes de G/H, à un sous-groupe distingué correspondant un sous-groupe distingué et vice versa.

Si f : GG est un morphisme de noyau H, le premier théorème d’isomorphisme des groupes affirme que le groupe quotient G/H est isomorphe au groupe f (G) image de G par f par le morphisme qui, à chaque classe, fait correspondre la valeur constante de f sur cette classe. Il en résulte que f peut s’écrire comme composé de trois morphismes qui sont (respectivement de gauche à droite) surjectif, bijectif et injectif:

Indiquons enfin un autre résultat d’isomorphisme. Si H est un sous-groupe distingué de G et L un sous-groupe quelconque, alors LH = HL est un sous-groupe, H 惡 L est un sous-groupe distingué de L et les deux groupes L/(H 惡 L) et HL/H sont isomorphes.

Suites de composition

Dans un groupe G, le sous-groupe1 réduit à l’élément neutre et le groupe G lui-même sont distingués; si ce sont les seuls sous-groupes distingués de G, ce groupe est dit simple. À l’opposé, dans un groupe commutatif, tous les sous-groupes sont distingués. Nous allons expliquer maintenant comment on peut préciser la structure d’un groupe en fabriquant des suites de sous-groupes encastrés. Pour éviter des interprétations erronées, il sera bon de se rappeler qu’il n’y a pas transitivité de la notion de sous-groupe distingué: si K 說 H 說 G, K sous-groupe distingué de H et H sous-groupe distingué de G, le sous-groupe K de G n’est pas nécessairement distingué dans G.

On appelle suite de composition d’un groupe G une suite strictement décroissante:

de sous-groupes telle que Gⁱ⁺¹ soit un sous-groupe distingué de Gⁱ pour i = 0, 1, ..., n 漣 1; les groupes quotients Gⁱ /Gⁱ⁺¹ s’appellent les facteurs de composition de la suite; si tous les facteurs de composition sont simples, on dit qu’on a une suite de Jordan-Hölder; dans un groupe fini, on peut toujours trouver de telles suites de Jordan-Hölder et leur longueur est un important invariant du groupe (cf. théorème de Jordan-Hölder in GROUPES – Groupes finis, chap. 2).

Examinons ici les groupes dits résolubles admettant des suites de composition dont tous les facteurs de composition sont commutatifs; historiquement, cette notion est liée à la résolubilité des équations algébriques par radicaux, d’où la terminologie [cf. CORPS . 3, et Évariste GALOIS]. Nous aurons pour cela besoin d’une condition exprimant que le quotient G/H d’un groupe G par un sous-groupe distingué H est commutatif. S’il en est ainsi, quels que soient x et y dans G, les classes de xy et yx suivant H doivent être égales; donc l’élément:

appelé commutateur de x et y , doit appartenir à H. De manière générale, si H et K sont des sous-groupes de G, notons (H, K) le groupe engendré par les commutateurs (x , y ) pour x 捻 H et y 捻 K (attention, le produit de deux commutateurs n’est pas un commutateur en général). Le groupe quotient G/H est donc commutatif si et seulement si H contient le groupe (G, G) = D(G) appelé groupe des commutateurs de G, ou groupe dérivé ; ce groupe est évidemment transformé en lui-même par tout automorphisme de G et, en particulier, il est distingué dans G. On peut donc itérer cette opération de «dérivation» et construire la suite décroissante des groupes dérivés successifs:

on montre alors qu’un groupe G est résoluble si et seulement s’il existe un entier r tel que D^r+1 (G) =1 et qu’alors il existe une suite de composition dont tous les termes Gⁱ sont des sous-groupes distingués dans G (et non pas seulement dans le sous-groupe précédent G^i-1 ) et dont tous les facteurs de composition sont commutatifs.

Si G est un groupe fini , il est résoluble si et seulement s’il admet une suite de Jordan-Hölder dont tous les facteurs de composition sont des groupes cycliques d’ordre premier.

On montre que tout sous-groupe ou tout groupe quotient d’un groupe résoluble est résoluble.

Un cas particulier de groupes résolubles est fourni par les groupes nilpotents qui sont les groupes admettant une suite de composition:

telle que chaque groupe quotient G^i-1 /Gⁱ soit dans le centre du groupe G/Gⁱ (une telle suite est dite centrale); dans le cas de groupes finis (cf. GROUPES – Groupes finis, chap. 3), on peut donner diverses autres caractérisations. Définissons par récurrence le commutateur de k éléments x ¹, ..., x ^k de G comme:

et désignons par C^k (G) le groupe engendré par les commutateurs de k éléments de G. On vérifie que les groupes C^k (G) peuvent être définis par les relations de récurrence:

et forment une suite décroissante de sous-groupes (appelée série centrale descendante). Un groupe G est alors nilpotent si et seulement s’il existe un entier r tel que C^r+1 (G) =1.

4. Produits

Soit n groupes G¹, ..., Gⁿ . L’ensemble produit:

est un groupe, appelé groupe produit , pour la loi de composition:

si H¹, H², ..., Hⁿ sont des sous-groupes de G¹, G², ..., Gⁿ respectivement, le groupe produit:

est un sous-groupe de G, distingué si chacun des Hⁱ l’est. Prenons en particulier Hⁱ = Gⁱ et H^j =1 pour j i ; le groupe produit est un sous-groupe distingué de G isomorphe à Gⁱ et nous identifierons ces deux groupes. Remarquons que, en effectuant cette identification, tout élément de Gⁱ commute avec tout élément de G^j pour i j .

Dans la situation précédente, le groupe G apparaît comme produit de certains de ses sous-groupes et les groupes obtenus en changeant l’ordre des groupes facteurs sont isomorphes.

On dira qu’un groupe G est produit direct d’une famille finie H¹, ..., Hⁿ de sous-groupes distincts de G si tout élément de Hⁱ commute avec tout élément de H^j pour i j et si tout élément u de G s’écrit de manière unique comme un produit:

on dit que u ⁱ est le composant de u dans Hⁱ . Cela entraîne que les Hⁱ sont des sous-groupes distingués de G et que l’application:

est un isomorphisme du groupe produit H¹ 憐 ... 憐 Hⁿ sur le groupe G. Si H¹, H², ..., Hⁿ sont des sous-groupes distingués d’un groupe G tels que:

on montre que l’ensemble H¹ H² ... Hⁿ est un sous-groupe distingué de G qui est produit direct de la famille considérée.

Un sous-groupe distingué H d’un groupe K est dit facteur direct dans G s’il existe un sous-groupe distingué K de G tels que G soit égal au produit direct de H et K; remarquons que le groupe K est alors isomorphe au groupe quotient G/H.

En notation additive, on parle de somme directe au lieu de produit direct.

Le produit direct permet de définir une nouvelle et importante classe de groupes (cf. GROUPES – Groupes classiques et géométrie et GROUPES – Groupes de Lie). Un groupe G est dit semi-simple s’il est produit direct d’un nombre fini de sous-groupes simples (c’est-à-dire dont les seuls sous-groupes distingués sont triviaux). On montre que le nombre de ces sous-groupes, appelé la longueur de G, est le même pour toutes les expressions de G comme produit direct de sous-groupes simples. Si G est produit direct d’une famille finie (Hⁱ ), i 捻 I, de sous-groupes simples, tout sous-groupe distingué K est isomorphe au produit direct d’une sous-famille (H^j ), j 捻 J, J 說 I; en particulier tout sous-groupe distingué est semi-simple, de longueur inférieure ou égale à celle de G (avec égalité des longueurs si et seulement si K = G). Il en est de même des groupes quotients d’un groupe semi-simple.

On va maintenant généraliser la notion de produit direct. Soit H et K deux groupes, et soit donné, pour tout x 捻 H, x 料 精^x un morphisme de H dans le groupe Aut (K) des automorphismes de K. On appelle produit semi-direct de H par K relatif à 精 l’ensemble H 憐 K, muni de la loi de composition:

qui est un groupe; on notera H 憐 size=1^精 K ce produit semi-direct. Si 精^x (y ) = y pour tout x 捻 H, on retrouve le produit direct défini ci-dessus. On vérifie que les éléments de la forme (x , 1), x 捻 H, forment un sous-groupe de G isomorphe à H et que les éléments de la forme (l, y ), y 捻 K, forment un sous-groupe distingué de G isomorphe à K. Réciproquement, soit G un groupe, H un sous-groupe de G et K un sous-groupe distingué de G tel que H 惡 K =1. Cela a pour conséquence que xy = x y , pour x , x 捻 H et y , y 捻 K, entraîne x = x et y =y (car on a alors x ^-1x = y y ^-1 捻 H 惡 K, d’où x ^-1 x = y y ^-1 = 1). Puisque K est distingué, pour tout x 捻 H, l’automorphisme intérieur défini par x ^-1 induit un automorphisme de K que nous désignerons par 精^x . On voit alors facilement que HK est un groupe isomorphe au produit semi-direct de H par K relativement à 精; en effet, pour x , x 捻 H et y , y 捻 K, on a:

le groupe quotient HK/K est isomorphe à H.

5. Groupes de transformations

Si E est un ensemble, nous avons déjà indiqué que les bijections de E sur lui-même forment un groupe (E) pour la composition des applications, le groupe symétrique de E. Si E est muni d’une structure, les bijections qui conservent cette structure forment un sous-groupe de (E), le groupe des automorphismes de E pour la structure considérée. C’est ainsi qu’on a introduit ci-dessus le groupe Aut(G) des automorphismes d’un groupe G; si V est un espace vectoriel, on obtient le groupe linéaire de V, noté GL(V), formé des bijections linéaires de V sur V.

On dit qu’un groupe G opère sur un ensemble E si E est muni d’une loi externe dont le domaine d’opérateurs est G:

de telle sorte que g (hx ) = (gh )x et 1 x = x pour g , h 捻 G et x 捻 E. Cela entraîne que, pour g 捻 G, l’application 福(g ): EE qui à x fait correspondre gx est une bijection de E sur lui-même (dont la bijection réciproque est 福(g ^-1)); la condition d’associativité s’écrit 福(gh ) = 福(g ) 獵 福(h ) et exprime donc que 福 est un morphisme de G dans le groupe symétrique (E). On appelle un tel morphisme une représentation du groupe G dans le groupe (E); si 福 est un isomorphisme de G sur son image, on dit qu’on a réalisé le groupe G comme groupe de transformations de E. Remarquons qu’on peut toujours réaliser un groupe comme groupe de transformations de l’ensemble qui lui est sous-jacent en identifiant tout élément g 捻 G à la translation à gauche h 料 gh . Dans ce qui suit, nous considérerons un groupe G qui opère sur un ensemble E.

Pour x 捻 E, on appelle orbite de x l’ensemble des éléments gx pour g 捻 G; remarquons que les orbites de deux éléments sont toujours disjointes ou confondues, car la relation x 黎 y , s’il existe g 捻 G tel que y = gx , est une relation d’équivalence sur E. On appelle classes d’intransitivité les classes pour cette relation d’équivalence, c’est-à-dire les orbites disjointes. Le groupe est dit transitif s’il n’existe qu’une seule classe d’intransitivité (E tout entier). Cela signifie que, si x et y sont deux éléments quelconques de E, il existe au moins un élément g 捻 G tel que y = gx ; si cet élément g est de plus toujours unique, le groupe est dit simplement transitif . Plus généralement, on dit que le groupe G est n-fois transitif si E contient au moins n éléments et si, étant donné deux systèmes quelconques x ¹, ..., x ⁿ et y ¹, ..., y ⁿ de n éléments de E, il existe au moins un élément g 捻 G tel que y ⁱ = gx ⁱ pour i = 1, 2, ..., n . On verra de nombreux exemples de ces situations dans les articles sur les groupes classiques et sur les groupes finis.

On appelle enfin espace homogène un ensemble E muni d’un groupe transitif d’opérateurs. Voici, pour terminer, un exemple important de cette situation, auquel on peut toujours se ramener par un isomorphisme. Soit G un groupe et H un sous-groupe quelconque de G; désignons par G/H l’ensemble des classes à gauche suivant H. Il est clair que, pour g 捻 G, l’application qui à la classe à gauche de x fait correspondre la classe à gauche de gx est une bijection de G/H sur lui-même et que l’on fait ainsi opérer G transitivement sur l’ensemble G/H, ce qui munit cet ensemble d’une structure d’espace homogène. Réciproquement, si E est un ensemble sur lequel opère transitivement un groupe G, soit a un élément de E et désignons par H^a le sous-groupe des éléments de G laissant a invariant, c’est-à-dire tels que ga = a ; on vérifie facilement que l’espace homogène E est isomorphe (en tant qu’espace homogène) à l’espace homogène G/H^a des classes à gauche de G suivant le sousgroupe H^a .

Encyclopédie Universelle. 2012.